RULER: Instance-aware Rubric Rewards for SVG Generation
RULER：面向 SVG 生成的实例感知评分规则奖励
🧭 RL 奖励设计 · SVG 生成
Ant Group · The Hong Kong University of Science and Technology (Guangzhou) · Independent Researcher · University of Oxford
用实例感知 rubric 奖励替代标量指标，VLM 逐项评分并结合 GRPO，无需真值即大幅提升 SVG 生成质量
📌 工作参考价值（4 点）
- 用多维 rubric 替代标量奖励：商品文案、广告创意、AI 生成图片等开放式生成任务中，若仍用 CLIP/Aesthetic 等单一 scalar 作为 reward，容易出现 reward hacking；让 VLM judge 按语义、视觉、风格多轴逐项打分，可提升与人类判断的一致性，并作为 RL reward。
- instance-aware rubric 动态生成：不依赖固定评估模板，而是针对每条 instruction / 用户场景生成定制评分项；在推荐解释、push 消息、搜索 query 生成中，可按用户意图或商品属性动态生成评估维度，比全局统一指标更精细。
- 无真值/无偏好标注的 RL 训练：RULER 仅从文本生成 rubric，不要求配对 ground truth 或人类偏好标签；对电商场景的生成式推荐/文案任务，可用现有 VLM 做自动评估器，降低人工标注成本，再结合 GRPO 优化。
- 先验证 judge 相关性再用于 RL：在工程上，可先构建 rubric prompt + VLM judge，验证其与少量人工评分的相关性，确认可靠后再接入 GRPO 训练；避免直接采用不可靠 reward 导致策略退化。